RDS 大數(shù)據(jù)量的處理SEARCH AGGREGATION
回答:使用SQL處理數(shù)據(jù)時，數(shù)據(jù)會在數(shù)據(jù)庫內(nèi)直接進行處理，而且sql處理本身可以對sql語句做優(yōu)化，按照最優(yōu)的策略自動執(zhí)行。使用Java處理時，需要把數(shù)據(jù)從數(shù)據(jù)庫讀入到Java程序內(nèi)存，其中有網(wǎng)絡處理和數(shù)據(jù)封裝的操作，數(shù)據(jù)量比較大時，有一定的延遲，所以相對來說數(shù)據(jù)處理就慢一些。當然，這個只是大體示意圖，實際根據(jù)業(yè)務不同會更復雜。兩者側(cè)重的點不同，有各自適合的業(yè)務領(lǐng)域，需要根據(jù)實際情況選用合適的方式。
stefanieliang
|
2076人閱讀
回答:我是做JAVA后臺開發(fā)的，目前為止最多處理過每天600萬左右的數(shù)據(jù)！數(shù)據(jù)不算特別多，但是也算是經(jīng)歷過焦頭爛額，下面淺談下自己和團隊怎么做的？后臺架構(gòu):前置部門:負責接收別的公司推過來的數(shù)據(jù)，因為每天的數(shù)據(jù)量較大，且分布不均，使用十分鐘推送一次報文的方式，使用batch框架進行數(shù)據(jù)落地，把落地成功的數(shù)據(jù)某個字段返回給調(diào)用端，讓調(diào)用端驗證是否已經(jīng)全部落地成功的，保證數(shù)據(jù)的一致性！核心處理:使用了spr...
李增田
|
1481人閱讀
回答:目前階段大數(shù)據(jù)技術(shù)及體系已經(jīng)逐漸趨于成熟，不再是以概念貫穿的模式，大數(shù)據(jù)越來越多的被使用，伴隨互聯(lián)網(wǎng)化的發(fā)展更多的企業(yè)信息化已經(jīng)由IT時代轉(zhuǎn)變?yōu)镈T時代，以數(shù)據(jù)為核心，用數(shù)據(jù)進行決策，基于數(shù)據(jù)驅(qū)動企業(yè)的創(chuàng)新與發(fā)展，相信在將來大數(shù)據(jù)也會有更廣泛的應用空間，對于大數(shù)據(jù)的理解主要分為以下幾個層面。1.數(shù)據(jù)來源：對于大數(shù)據(jù)時代而言更多強調(diào)基于業(yè)務數(shù)據(jù)的沉淀，在一定規(guī)模的數(shù)據(jù)上進行進一步的分析、處理、轉(zhuǎn)換，...
arashicage
|
1224人閱讀
回答:在大數(shù)據(jù)領(lǐng)域大概有四個大的工作方向，除了大數(shù)據(jù)平臺應用及開發(fā)、大數(shù)據(jù)分析與應用和大數(shù)據(jù)平臺集成與運維之外，還有大數(shù)據(jù)平臺架構(gòu)與研發(fā)，除了以上四個大的工作方向之外，還有一個工作方向是大數(shù)據(jù)技術(shù)推廣和培訓，這部分工作目前也有不少人在從事。大數(shù)據(jù)平臺架構(gòu)與研發(fā)主要的工作內(nèi)容是研發(fā)底層的大數(shù)據(jù)平臺，這部分工作的難度較高，從事這部分工作的研發(fā)級崗位也并不多。現(xiàn)在不少技術(shù)研發(fā)團隊都以Hadoop、Spark平...
zhangxiangliang
|
3461人閱讀
回答:近幾年，大數(shù)據(jù)的概念逐漸深入人心，大數(shù)據(jù)的趨勢越來越火爆。但是，大數(shù)據(jù)到底是個啥？怎么樣才能玩好大數(shù)據(jù)呢？大數(shù)據(jù)的基本含義就是海量數(shù)據(jù)，麥肯錫全球研究所給出的定義是：一種規(guī)模大到在獲取、存儲、管理、分析方面大大超出了傳統(tǒng)數(shù)據(jù)庫軟件工具能力范圍的數(shù)據(jù)集合，具有海量的數(shù)據(jù)規(guī)模、快速的數(shù)據(jù)流轉(zhuǎn)、多樣的數(shù)據(jù)類型和價值密度低四大特征。數(shù)字經(jīng)濟的要素之一就是大數(shù)據(jù)資源，現(xiàn)在大家聊得最多的大數(shù)據(jù)是基于已經(jīng)存在的...
khlbat
|
800人閱讀
...開發(fā)環(huán)節(jié)需要處理號幾個地方，才能更輕松的擴展： 1，數(shù)據(jù)庫單獨運行 這個最簡單，相信只要用到了數(shù)據(jù)庫的網(wǎng)站，大部分都是已經(jīng)可以輕松實現(xiàn)網(wǎng)站和數(shù)據(jù)庫分離的模式。之所以強調(diào)這點，就是因為，網(wǎng)站真的到了訪問量大...
...開發(fā)環(huán)節(jié)需要處理號幾個地方，才能更輕松的擴展： 1，數(shù)據(jù)庫單獨運行 這個最簡單，相信只要用到了數(shù)據(jù)庫的網(wǎng)站，大部分都是已經(jīng)可以輕松實現(xiàn)網(wǎng)站和數(shù)據(jù)庫分離的模式。之所以強調(diào)這點，就是因為，網(wǎng)站真的到了訪問量...
...開發(fā)環(huán)節(jié)需要處理號幾個地方，才能更輕松的擴展： 1，數(shù)據(jù)庫單獨運行 這個最簡單，相信只要用到了數(shù)據(jù)庫的網(wǎng)站，大部分都是已經(jīng)可以輕松實現(xiàn)網(wǎng)站和數(shù)據(jù)庫分離的模式。之所以強調(diào)這點，就是因為，網(wǎng)站真的到了訪問量...
...外賣、點餐、收銀、會員管理、進銷存等系統(tǒng)服務，并將數(shù)據(jù)實時傳達云端。我們是客如云的大數(shù)據(jù)基礎(chǔ)架構(gòu)組，負責公司的大數(shù)據(jù)架構(gòu)和建設(shè)工作，為公司提供大數(shù)據(jù)基礎(chǔ)數(shù)據(jù)服務。 業(yè)務發(fā)展遇到的痛點 隨著公司業(yè)務架構(gòu)越...
2020年4月中旬，UCloud云數(shù)據(jù)庫產(chǎn)品線發(fā)布了MySQL版本的快杰UDB，作為UDB產(chǎn)品架構(gòu)升級后的最新一代云數(shù)據(jù)庫，快杰UDB采用了業(yè)內(nèi)主流的計算存儲分離架構(gòu)：計算層使用高性能UCloud快杰云主機，存儲層采用超高性能RSSD云盤，適合絕...
2016 云棲大會·北京峰會上，阿里云宣布啟動 AliSQL 數(shù)據(jù)庫開源項目。日前，用戶內(nèi)測邀請正式啟動。根據(jù)阿里云數(shù)據(jù)庫團隊的規(guī)劃，今年 10 月，開發(fā)者將可以在阿里云 Code 平臺和 GitHub 網(wǎng)站上下載 AliSQL。AliSQLAliSQL 是基于 MySQL ...
...者必看，吸取教訓啊！ 原文：Redis 的 KEYS 命令引起 RDS 數(shù)據(jù)庫雪崩，RDS 發(fā)生兩次宕機，造成幾百萬的資金損失 作者：陳浩翔 Fundebug經(jīng)授權(quán)轉(zhuǎn)載，版權(quán)歸原作者所有。 最近的互聯(lián)網(wǎng)線上事故發(fā)生比較頻繁，2018 年 9 月 19 號順豐...
ChatGPT和Sora等AI大模型應用，將AI大模型和算力需求的熱度不斷帶上新的臺階。哪里可以獲得...
大模型的訓練用4090是不合適的，但推理（inference/serving）用4090不能說合適，...
圖示為GPU性能排行榜，我們可以看到所有GPU的原始相關(guān)性能圖表。同時根據(jù)訓練、推理能力由高到低做了...
馬龍駒
